Bridging Systems Open Problems for Countering Destructive Divisiveness across Ranking, Recommenders, and Governance
Recommender systems on social media
Collective response systems
Human-facilitated group deliberation
Attentionを向けるシステムは分断に影響を与える可能性がある
=> しかしその上流に様々なAttention allocatorがある
Attenitonに直接報酬を与えるシステムには分割への偏りがあるかもしれない 自分自身のAttentionを最大化しようとする行動に報酬を与える(エンゲージメントなど)
政治家の選挙
これは誤解を招くようなセンセーショナルで誇張的なエンゲージメントを生み出すことに報酬を与える
分断の定義:
イデオロギー的分極化
感情的分極化
対立をなくしたり、同質性を作り出すことではない。その目的は、多くの環境(ソーシャル・メディアの大部分を含む)のデフォルト傾向をチェックすることであり、それが心理的な傾向と組み合わさると、私たちを極端な方向へと押しやる可能性がある。
= 対立を良いものにする、健全なものにする
エンゲージメントベースのランキング=> ブリッジングベースのランキング
ブリッジングをより最適化することは、エンゲージメントをより最適化しないことになる(トレードオフ)
Attentionは希少であり、有限である
Allocation: スロットをオブジェクトでうめること
オブジェクトはソーシャルメディアプラットフォーム上のコンテンツアイテムであり、対応するスロットはレコメンダーフィード内の個別の位置かもしれない。あるいは、スロットは一人称の経験の連続的な区間であるかもしれず、その場合、対応するオブジェクトは、参加可能なあらゆるものであろう。
1つのスロットが1つのオブジェクトで埋められること=> Atomic
Allocation process
利用可能なスロットの有限なセットを埋めるためにどのようなオブジェクトを使用するかを決定すること
https://scrapbox.io/files/64e86e1081b1f8001e571eb4.png
Lerning Process
Allocation Processによって生成された予測を改善すること
https://scrapbox.io/files/64e86ecff8e9cd001b7d23e0.png
Attenition Allocation
Attention: システムの状態が物質的に変化する可能性があるようなシステムによる情報の選択的処理
ある人(システムの一種)がニュース記事(情報の一種)に注意を向けると、その記事に注意を向けた結果として、その人の信念や態度が変わるかもしれない。
Attenitionの配分に関わる配分システムと定義づけられる
Bridgingのためのデータの引き出し
集団における人間関係について最も有用な情報を提供するアフォーダンスは何か? ある領域からのエリシテーション手法は別の領域に翻訳できるか?
人間関係に関する情報を引き出す行為自体がどのような影響を与える可能性があるのか?
この部分は無個資數據をどうやって処理するかだと思うYudai.icon 匿名のまま処理って出来るものなのかな?
Relation Model
母集団内の人々の関係を形式的に表現したもので、学習または推論することができる = 状態モデル People
Items
Relations
グラフベースのモデル
https://scrapbox.io/files/64ec3693ddad03001bef9a07.png
空間ベースのモデル
https://scrapbox.io/files/64ec36a9daafe4001b1fe19a.png
Signals
価値の全体的な尺度に集約される数値であり、Alocation processにおける価値の最適化の基礎となる
Observed(観察されるか) or Predicated(予測されるか)
Causal(因果的なもの) or Heuristic(発見的なもの)
この論文面白すぎるYudai.icon
ただそれだけじゃなくて、信頼を同プログラムするかとかもそう もっとじっくりと読もっと